O modelo ChatQA2, lançado pela Nvidia AI, aborda os desafios cruciais no desenvolvimento de IA relacionados à compreensão de contexto em textos longos e à geração reforçada por busca (RAG). Baseado no modelo Llama3 e otimizado, ele expande a janela de contexto para 128K tokens e emprega um processo de ajuste de instruções em três etapas. Isso resulta em uma melhoria significativa na capacidade de seguir instruções, no desempenho RAG e na compreensão de textos longos. Em avaliações do InfiniteBench, o ChatQA2 demonstra desempenho comparável ao GPT-4-Turbo-2024-0409.